Câu lạc bộ ban đầu được thành lập vào năm 1996 và được giới thiệu tại Moldova "B" Division với tên gọi FC Tiras Tiraspol. Vào ngày 4 tháng 4 năm 1997, cựu cảnh sát Victor Gușan, một nhân viên của tập đoàn an ninh Sheriff, và là nhà tài trợ chính, đã đổi tên lại là FC Sheriff Tiraspol.[2][3]

Sheriff đã đạt được thăng hạng lên hạng hai của bóng đá Moldova, [[Moldova "A" Division], và dưới sự dẫn dắt của Ahmad Alaskarov, được giao nhiệm vụ dẫn dắt đội đến giải hạng nhất Moldova.[2] Cuối năm đó, câu lạc bộ đã giành chức vô địch với 14 điểm, được thăng hạng lên Divizia Națională. [4] Câu lạc bộ đã giành được danh hiệu lớn đầu tiên với Cúp Moldova năm 1999. Trong trận chung kết tại Republican Stadium, Sheriff đã ghi bàn gỡ hòa ở phút bù giờ trước khi giành chiến thắng trước Constructorul Chișinău 2-1 sau hiệp phụ.[5] Chức vô địch giải quốc gia đầu tiên của Sheriff là ở mùa giải 2000–01, cũng bao gồm chiến thắng thứ hai tại Moldova Cup khi họ đánh bại Nistru Otaci trên chấm phạt đền sau trận đấu không bàn thắng.[6] Chức vô địch giải đấu là lần đầu tiên trong chuỗi 10 trận liên tiếp cho đến năm 2010, bao gồm cả các chức vô địch cúp liên đoàn vào các năm 2002, 2006 và 2008–10. Sheriff từng giành Siêu cúp Moldova từ năm 2004 đến năm 2010, nhưng không phải thi đấu một trận nào trong bốn lần do chiến thắng mặc định thông qua một cú đúp.[7] Sheriff đã bị Dacia Kishinev từ chối danh hiệu thứ 11 liên tiếp ở 2010–11, nhưng đã đòi lại danh hiệu vào mùa giải sau đó. Ở 2014–15, Sheriff một lần nữa đánh mất chức vô địch dù bằng điểm với cả Milsami Orhei và Dacia Kishinev với 55 điểm; Milsami sẽ cán đích ở vị trí đầu tiên vì thành tích đối đầu vượt trội so với Sheriff và Dacia, với Dacia thứ hai và Sheriff thứ ba, mặc dù Sheriff có hiệu số bàn thắng bại vượt trội so với các câu lạc bộ.

Đội đã giành được Cúp các quốc gia độc lập vào năm 2003 và 2009, trở thành đội đầu tiên của Moldova giành được một danh hiệu quốc tế. Sheriff là câu lạc bộ đầu tiên ở Moldova ký hợp đồng với các cầu thủ đến từ Brazil và châu Phi.[8]

Tại châu Âu

UEFA Europa League

Từ 2001–02 đến 2008–09, câu lạc bộ đã cố gắng lọt vào vòng bảng ở UEFA Champions League hàng năm, nhưng lần nào cũng thất bại ở vòng sơ loại thứ hai. Vận may ở châu Âu của họ được cải thiện sau năm 2009. Sheriff đã xuất hiện trong ba vòng bảng UEFA Europa League (2009–10, 2010–11, 2013–14) với kết quả tốt, mặc dù họ đã không vượt qua được vòng loại trực tiếp. Vào năm 2017, họ đã vượt qua vòng loại vòng bảng lần thứ tư, sau khi đánh bại đội được yêu thích Legia Warsaw bằng bàn thắng trên sân khách ở vòng play-off.

UEFA Champions League 2021–22

Tại UEFA Champions League 2021–22, Sheriff trở thành đội Moldova đầu tiên vượt qua vòng bảng của giải đấu sau chiến thắng chung cuộc 3–0 trước Dinamo Zagreb.[9] Họ đã được bốc vào Bảng D để đối mặt với Inter Milan, Real Madrid và Shakhtar Donetsk.[10]